基于有效秩缩放的推荐系统统一异构特征交互
🧭 推荐系统统一异构特征交互与序列建模 ★ 深度解读
Alibaba Group · Renmin University of China · Institute of Automation, Chinese Academy of Sciences
HiRank统一异构特征交互与序列建模，通过主序列引导检索和场景感知高阶注意力，在淘宝CVR线上提升2.27%订单/用户
📌 工作参考价值（4 点）
- 主序列引导长期记忆检索：不要用静态 profile 特征直接生成长期行为 memory 的 query，容易导致 query 方向集中、有效秩低。可先让可学习 query seed attend 主行为序列，再用得到的主序列感知 query 去检索 long-term memory；同时保留 candidate-conditioned query 从候选物品视角读取同一 memory，两条路径互补，适合电商强 candidate 相关的 CVR 建模。
- 用有效秩(eRank)做特征交互层诊断：在 token mixing、memory retrieval 后定期计算 eRank，若有效秩过低说明表示多样性不足，可以增加 head-wise SwiGLU 或 per-token FFN；实验中 mixing 块和 memory retrieval 均显著提升 eRank，High-Rank Attention 阶段 eRank 仅小幅下降，可作为架构迭代的监控指标。
- 场景感知压缩 + 复合投影替代全量高维投影：在多场景/多域 CVR 中，直接用 scenario-aware cross-attention 将全部 token 压缩为 compact state，再通过多个独立参数化的 composite projections 生成 Q/K/V 做高阶交互，比直接对拼接 token 做大矩阵投影更省参数且能保留场景差异，适合业务线做多场景统一排序模型。
- 用户-物品解耦实现请求级计算复用：将 backbone token 分为 user-side 和 item-side，user-side 计算在同一个 request 内跨候选共享；使用 masked head-wise SwiGLU 实现单向 user->item 信息流（dependency matrix [[1,0],[1,1]]），既降低 online serving GFLOPs，又避免 item 信息污染 user 状态，适合电商/广告推荐 RLB 架构。
HELIX：净化并统一大规模推荐中的特征交互与序列建模
🧭 统一特征交互与序列建模的排序架构 ★ 深度解读
Data - Global E-Commerce Recommendation Video Team
用单向可复用 KV cache 与 Mixup-PerToken-FFN 联合扩展特征交互和序列建模，电商视频 GMV/用户提升约 6%
📌 工作参考价值（4 点）
- 把候选无关的用户行为序列编码成可复用 KV cache，候选侧只做 cross-attention 读取，强制单向信息流。这样在 serving 多候选、training 多样本时都能摊销 encoder 成本；如果搜广推系统里要接入用户长序列，这是可落地的架构选择。
- 异构特征交互可考虑用 Mixup-PerToken-FFN 替代 self-attention：参数免费的 Mixup 按通道切片重组 token，再用 token-wise SwiGLU 做非线性交互，比 self-attention 更适配稠密异构特征，且省计算。
- 序列 encoder 采用金字塔 query 压缩：按特征重要性给每条序列分配最近 token 预算，而不是全局截断或统一池化；配合 padding-free 变长执行，能显著降低长序列训练成本。
- 训练稳定性上，对 SwiGLU 的 gate/up 分支做非参数归一化可以避免 FP16 激活溢出；QK-Norm 和 value-side gated attention 在推荐排序模型里也有稳定 AUC 增益。
SeqMoE：预测式与图兼容 MoE 卸载实现近满载性能
🧭 MoE 推理卸载 · 预测式专家预取
University of Science and Technology of China · Suzhou Institute for Advanced Research, University of Science and Technology of China
通过序列建模预测专家激活，结合联合预取调度与图兼容运行时，实现 45% 常留下 96.97% 命中率和 80.22% 满载性能
📌 工作参考价值（4 点）
- 若业务使用 MoE 架构 LLM（如 Mixtral、DeepSeek-MoE）做 query 改写、文案生成或 Agent 工具编排，可参考 SeqMoE 的专家激活序列预测：只让约 45% 的 expert 常驻显存，仍能获得约 80% 的 full-load 性能，适合在显存受限 GPU 上部署大规模 MoE 推理服务。
- 将“下一步需要加载哪些 expert”建模为序列预测问题，类似推荐中的 next-item prediction，可以用轻量 decoder 输出多步、多层的 expert ID 序列，比按层独立 LRU 更精准，能直接迁移到 LLM serving 的预取模块。
- 联合预取调度可形式化为 Job Sequencing with Deadlines：把 PCIe/NVLink 带宽作为约束、各 token 的 expert 需求作为 deadline，统一调度一批请求的 expert 加载，能显著提升带宽利用率；在 Continuous Batching 场景下可以复用这一思想。
- 图兼容 runtime 的做法值得工程实现借鉴：将 expert 放置与计算解耦，避免预取引入依赖同步，从而能用 CUDA Graph 捕获端到端执行路径，减少 kernel launch overhead；不过动态 MoE routing 会加大图捕获复杂度，需在 serving 框架里做静态化或部分捕获。
UniDot：统一序列建模与特征交互的大规模推荐架构
🧭 统一序列建模与特征交互架构 ★ 深度解读
Meta
以点积为统一原语，用双总线并行堆叠块融合序列与特征交互，获 KDD Cup 2026 工业赛道亚军
📌 工作参考价值（4 点）
- 显式保留 FM 级点积交互：在深层残差网络旁路增加一个 FM Highway，把每层 token 点积、Gram 矩阵、跨总线 user-item 点积直接 concat 送进分类器，消融显示去掉后 AUC 掉 0.127%，成本极低。现有 DeepFM/DCN 等模型可以借鉴：不要把所有低阶信号都交给深层网络隐式学习，显式旁路对 CTR/CVR 任务性价比很高。
- 多路径互学习（DML）：两条相同结构、共享稀疏 embedding 表的路径互相蒸馏，推理时可以只用单路径（1× 成本），但训练时多路径正则化能把单路径模型拉到更好最优解。论文中单路径就能拿亚军，适合需要严格控制线上推理成本的场景。
- 序列编码一次、多处共享：行为序列 embed 一次，同时供 cross-attention、池化等多个消费者使用，避免重复编码。多域行为按时间戳 merge 成一条流，再与原始 domain 并行，能捕捉跨域时序模式。这个工程实现可显著降低推荐系统序列侧的推理延迟。
- 冷重启 embedding 对抗时间漂移：每个 epoch 后把高基数 embedding 表重新初始化，dense 参数保留，让 embedding 每轮重新学习，适配广告推荐中训练/测试时间差小的场景。对于电商大促、广告新广告位等快速变化场景有参考价值。
模块化测试时训练：将 TTT 重新思考为可组合模块
🧭 序列建模 · TTT 框架
Shanghai Jiao Tong University · Shanghai Innovation Institute · ByteDance Seed
提出模块化 TTT 框架，将内部学习器建模为有向无环图，系统消融组件并发现关键设计原则
📌 工作参考价值（4 点）
- 可尝试用 TTT 替代 Transformer 做用户行为序列建模，受益于其在线学习特性，可能更高效处理长序列。
- 模块化设计思想可借鉴到推荐系统的特征交互或模型组件，将学习率、损失函数等也作为可配置模块，便于消融和新设计。
- 消融结论直接可用：使用单层非线性快权重网络，避免深度网络和归一化，采用小学习率初始化与权重衰减，可减少实现踩坑。
- 业务中若需轻量、增量更新的序列模型，TTT 的 fast-weight 机制可能比 Transformer 更节省 inference 开销，适合实时推荐场景。
SPARC：序列感知渐进式属性路由与压缩框架
🧭 生成式推荐 · 多字段压缩与上下文路由 ★ 深度解读
Alibaba Group
在生成推荐中，先对多字段行为历史做上下文建模再压缩，使每个交互仅占一个 token 且不损失关键信息
📌 工作参考价值（4 点）
- 可插拔的轻量级历史压缩模块：SPARC 作为生成式推荐骨干的前端，不改变训练目标与 SID，可直接插入现有模型（如 RankGR、TIGER），在保持推理成本不变的前提下提升历史交互的表达能力。
- 上下文感知路由机制：CAR 通过将字段划分为身份（SID）与侧信息，并用上下文条件动态路由侧信息到有限槽位，这种设计可借鉴到电商推荐中的多字段行为建模——例如按行为类型、商品属性、时间衰减等动态决定哪些侧信息更具信息量，避免静态聚合的过早信息丢失。
- “先上下文，再压缩”的原则：先按字段类型构成长序列（Field-wise Context Modeling）捕捉时序演化，再跨字段压缩；工程实现中可以为每个字段维护一条独立的序列 Tranformer 或轻量编码器，成本远低于直接插入全字段 token 序列。这种方法对广告点击历史、多行为序列等场景均可复用。
- 槽位分工的可解释性与可控性：CAR 的路由权重自然形成了不同槽位对不同类型侧信息的偏好（例如一个槽专注行为类型与新鲜度，另一个专注卖家/品牌），可为后续人工规则或约束提供参考，有利于在线调优与特征筛选。
从自举到序列建模：个性化着陆页统一生成式框架
🧭 个性化着陆页选择 · Decision Transformer ★ 深度解读
Duke University · Kuaishou Technology
提出基于Decision Transformer的GLAN框架，用日级回报引导与分层奖励模型解决信用分配，在线提升DAU+0.158%和LT+0.108%。
📌 工作参考价值（4 点）
- 对于拥有多入口（首页、推荐页、关注页等）的平台，可将每日多次启动的推荐决策转化为序列建模问题，用Decision Transformer捕获跨会话依赖，替代传统MDP+Q-learning。
- 日级RTG预测模块(L-RTG)结合周期性attention与序列动态建模，通过约束优化同时预测用户当天总使用时长和会话数，为日内所有页面分配提供全局目标信号，避免手动设定目标值的OOD问题。
- 分层奖励模型(HRM)将会话总时长拆解为各页面类型时长并预测落地页快速退出风险，用focal loss处理样本不均衡，有效分辨“偏好匹配”与“下游补偿”的信用模糊，可作为多页面场景下动作评价的通用方案。
- 推理时将RTG作为可消耗预算动态更新，实现闭环自适应策略；该模式可迁移到电商权益分配、消息推送节奏控制等需要日级长期价值最大化的场景。